\section{Unit 2：奇异值分解与应用}

\begin{frame}{奇异值分解（SVD）基本概念}
    \begin{block}{SVD定义}
        任意矩阵$A \in \mathbb{R}^{m \times n}$可分解为：
        \[ A = U\Sigma V^T \]
        \begin{itemize}
            \item $U$：$m \times m$正交矩阵（左奇异向量）
            \item $\Sigma$：$m \times n$对角矩阵（奇异值）
            \item $V$：$n \times n$正交矩阵（右奇异向量）
        \end{itemize}
    \end{block}
    
    \begin{block}{奇异值性质}
        \begin{itemize}
            \item $\sigma_1 \geq \sigma_2 \geq \cdots \geq \sigma_r > 0$
            \item $r = \text{rank}(A)$
            \item $\sigma_i^2$是$A^TA$和$AA^T$的特征值
        \end{itemize}
    \end{block}
    
    \begin{exampleblock}{2×2矩阵SVD}
        \[ A = \begin{bmatrix} 3 & 0 \\ 4 & 5 \end{bmatrix} = \begin{bmatrix} 0.6 & -0.8 \\ 0.8 & 0.6 \end{bmatrix} \begin{bmatrix} 7.07 & 0 \\ 0 & 2.12 \end{bmatrix} \begin{bmatrix} 0.71 & -0.71 \\ 0.71 & 0.71 \end{bmatrix}^T \]
    \end{exampleblock}
\end{frame}

\begin{frame}{矩阵的几何解释}
    \begin{block}{线性变换的几何意义}
        SVD将线性变换分解为三个步骤：
        \begin{enumerate}
            \item $V^T$：输入空间的旋转
            \item $\Sigma$：坐标轴的缩放
            \item $U$：输出空间的旋转
        \end{enumerate}
    \end{block}
    
    \begin{block}{单位球面的变换}
        单位球面在$A$下的像是一个超椭球面：
        \begin{itemize}
            \item 主轴方向：$U$的列向量
            \item 主轴长度：奇异值$\sigma_i$
            \item 体积变化：$\det(A) = \prod \sigma_i$
        \end{itemize}
    \end{block}
    
    \begin{figure}
        \centering
        \includegraphics[width=0.6\textwidth]{svd_geometry.png}
        \caption{SVD的几何解释：单位圆变换为椭圆}
    \end{figure}
\end{frame}

\begin{frame}{全SVD与经济型SVD}
    \begin{columns}
        \begin{column}{0.5\textwidth}
            \begin{block}{全SVD（Full SVD）}
                \[ A = \begin{bmatrix} U_1 & U_2 \end{bmatrix} \begin{bmatrix} \Sigma_1 & 0 \\ 0 & 0 \end{bmatrix} \begin{bmatrix} V_1^T \\ V_2^T \end{bmatrix} \]
                \begin{itemize}
                    \item 包含所有奇异向量
                    \item 存储成本高
                    \item 理论分析完整
                \end{itemize}
            \end{block}
        \end{column}
        \begin{column}{0.5\textwidth}
            \begin{block}{经济型SVD（Economy SVD）}
                \[ A = U_1\Sigma_1 V_1^T \]
                \begin{itemize}
                    \item 只保留非零部分
                    \item 存储效率高
                    \item 实际计算常用
                \end{itemize}
            \end{block}
        \end{column}
    \end{columns}
    
    \begin{block}{存储需求比较}
        \begin{itemize}
            \item 全SVD：$m^2 + n^2 + mn$个元素
            \item 经济型SVD：$mr + nr + r$个元素
            \item 当$r \ll \min(m,n)$时，经济型SVD优势明显
        \end{itemize}
    \end{block}
\end{frame}

\begin{frame}{低秩近似理论}
    \begin{block}{Eckart-Young定理}
        最佳秩$k$近似：
        \[ A_k = \sum_{i=1}^k \sigma_i u_i v_i^T \]
        近似误差：
        \[ \|A - A_k\|_2 = \sigma_{k+1}, \quad \|A - A_k\|_F = \sqrt{\sum_{i=k+1}^r \sigma_i^2} \]
    \end{block}
    
    \begin{block}{低秩近似的意义}
        \begin{itemize}
            \item 数据压缩：用较少信息表示原始数据
            \item 噪声去除：分离信号和噪声
            \item 模式识别：提取主要结构
            \item 计算加速：减少计算复杂度
        \end{itemize}
    \end{block}
    
    \begin{alertblock}{近似质量}
        近似质量取决于奇异值的衰减速度。快速衰减意味着良好的低秩近似性。
    \end{alertblock}
\end{frame}

\begin{frame}{图像压缩应用}
    \begin{block}{SVD图像压缩步骤}
        \begin{enumerate}
            \item 将图像表示为矩阵（灰度）或张量（彩色）
            \item 计算图像的SVD
            \item 选择截断秩$k$
            \item 用低秩矩阵重构图像
        \end{enumerate}
    \end{block}
    
    \begin{block}{压缩比计算}
        \[ \text{压缩比} = \frac{m \times n}{k(m + n + 1)} \]
        \begin{itemize}
            \item 原始存储：$m \times n$个元素
            \item 压缩后：$k(m + n + 1)$个元素
            \item 当$k \ll \min(m,n)$时压缩显著
        \end{itemize}
    \end{block}
    
    \begin{exampleblock}{512×512图像压缩}
        \begin{itemize}
            \item 原始：262,144个元素
            \item $k=50$：50×(512+512+1)=51,250个元素
            \item 压缩比：约5:1
        \end{itemize}
    \end{exampleblock}
\end{frame}

\begin{frame}{数据去噪应用}
    \begin{block}{去噪原理}
        \begin{itemize}
            \item 信号：低秩结构
            \item 噪声：高秩特性
            \item SVD低秩近似：分离信号和噪声
        \end{itemize}
    \end{block}
    
    \begin{block}{去噪步骤}
        \begin{enumerate}
            \item 计算含噪声数据的SVD
            \item 确定合适的截断秩$k$
            \item 用前$k$个奇异值重构数据
            \item 得到去噪后的结果
        \end{enumerate}
    \end{block}
    
    \begin{block}{截断秩选择方法}
        \begin{itemize}
            \item 相对阈值：$\sigma_i > \epsilon \cdot \sigma_1$
            \item 奇异值拐点分析
            \item 交叉验证方法
            \item 信息论准则（AIC/BIC）
        \end{itemize}
    \end{block}
\end{frame}

\begin{frame}{主成分分析（PCA）}
    \begin{block}{PCA基本思想}
        \begin{itemize}
            \item 寻找数据的主要变化方向
            \item 降低数据维度
            \item 保留最重要的信息
            \item 去除冗余和噪声
        \end{itemize}
    \end{block}
    
    \begin{block}{PCA与SVD的关系}
        给定中心化数据矩阵$\tilde{X}$：
        \[ \tilde{X} = U\Sigma V^T \]
        \begin{itemize}
            \item $V$的列：主成分方向
            \item $\Sigma^2$对角线：方差（特征值）
            \item $U\Sigma$：主成分得分
        \end{itemize}
    \end{block}
    
    \begin{block}{PCA计算步骤}
        \begin{enumerate}
            \item 数据中心化：$\tilde{X} = X - \bar{X}$
            \item 计算SVD：$\tilde{X} = U\Sigma V^T$
            \item 选择前$k$个主成分
            \item 投影数据：$Y = \tilde{X}V_k$
        \end{enumerate}
    \end{block}
\end{frame}

\begin{frame}{SVD算法与数值计算}
    \begin{block}{SVD计算步骤}
        \begin{enumerate}
            \item 双对角化：$A = U_1 B V_1^T$
            \item 计算双对角矩阵SVD：$B = U_2 \Sigma V_2^T$
            \item 组合结果：$A = (U_1U_2)\Sigma (V_1V_2)^T$
        \end{enumerate}
    \end{block}
    
    \begin{block}{数值稳定性考虑}
        \begin{itemize}
            \item 小奇异值对扰动敏感
            \item 需要特殊算法处理病态问题
            \item 截断SVD提高稳定性
            \item 相对阈值选择：$\sigma_i > \epsilon \cdot \sigma_1$
        \end{itemize}
    \end{block}
    
    \begin{block}{现代SVD算法}
        \begin{itemize}
            \item LAPACK中的dgesvd函数
            \item 分块算法提高效率
            \item 并行化处理大规模矩阵
            \item 随机化SVD加速计算
        \end{itemize}
    \end{block}
\end{frame}

\begin{frame}{SVD应用领域总结}
    \begin{columns}
        \begin{column}{0.5\textwidth}
            \begin{block}{科学与工程}
                \begin{itemize}
                    \item 图像处理与压缩
                    \item 信号去噪与分离
                    \item 数据降维与可视化
                    \item 系统辨识与控制
                \end{itemize}
            \end{block}
            
            \begin{block}{机器学习}
                \begin{itemize}
                    \item 主成分分析（PCA）
                    \item 潜在语义分析（LSA）
                    \item 推荐系统
                    \item 特征提取
                \end{itemize}
            \end{block}
        \end{column}
        \begin{column}{0.5\textwidth}
            \begin{block}{数值计算}
                \begin{itemize}
                    \item 矩阵求逆与伪逆
                    \item 最小二乘问题
                    \item 条件数估计
                    \item 秩亏缺系统求解
                \end{itemize}
            \end{block}
            
            \begin{block}{其他应用}
                \begin{itemize}
                    \item 量子力学
                    \item 网络分析
                    \item 金融数据分析
                    \item 生物信息学
                \end{itemize}
            \end{block}
        \end{column}
    \end{columns}
\end{frame}

\begin{frame}{本章重点总结}
    \begin{block}{核心概念}
        \begin{itemize}
            \item 奇异值分解的定义与性质
            \item 矩阵的几何解释
            \item 全SVD与经济型SVD
            \item Eckart-Young定理与低秩近似
        \end{itemize}
    \end{block}
    
    \begin{block}{重要应用}
        \begin{itemize}
            \item 图像压缩与去噪
            \item 主成分分析（PCA）
            \item 数据降维与模式识别
            \item 数值稳定性分析
        \end{itemize}
    \end{block}
    
    \begin{block}{学习目标}
        \begin{itemize}
            \item 理解SVD的数学原理
            \item 掌握SVD的计算方法
            \item 能够应用SVD解决实际问题
            \item 理解数值稳定性要求
        \end{itemize}
    \end{block}
\end{frame}